1
Dari Konsumsi API ke Arsitektur Sistem Otonom
AI008Kuliah 7
00:00

Transisi Menuju Teknik Informatika Ahli

Perjalanan dari penggemar AI menjadi arsitek ahli dimulai dengan menjawab satu pertanyaan krusial:Bagaimana Anda berpindah dari menjadi konsumen pasif model berbasis cloud menjadi arsitek utama sistem otonom?Perubahan ini mengharuskan Anda melampaui antarmuka untuk menghadapi mekanisme dasar AI.

1. Mengatasi Jeratan API

Banyak praktisi terjebak dalam keyakinan bahwa memanggil API cloud khusus setara dengan rekayasa AI. Namun, keahlian sejati melibatkan pemahaman teori matematis, manipulasi tensor, dan orkestrasi terdistribusi. Intuisi rekayasa dikembangkan dengan meninggalkan wrapper yang dangkal dan beralih ke pembuatan pipeline lokal yang tangguh.

2. Protokol Arsitektur Utama

Membangun sistem otonom membutuhkan pemahaman mendalam tentang komunikasi:

  • Protokol Konteks Model (MCP):Standar untuk menghubungkan model ke alat dan sumber data eksternal.
  • Agent-ke-Agent (A2A):Bus komunikasi yang memungkinkan agen khusus untuk menyerahkan tugas satu sama lain.
  • LangGraph:Rangkaian untuk membangun alur kerja multi-agennya berbasis status.

3. Dasar Matematis dan Penyelarasan

Keahlian didasarkan pada penelitian terbaru. Ini termasuk memahami dasar-dasar penyelarasan pasca-pelatihan, sepertiOptimasi Kebijakan Relatif Kelompok (GRPO), serta tetap up-to-date dengan laporan teknis penting dari institusi seperti ICLR dan ICML.

Tips Profesional
Pengetahuan teoretis akan menurun tanpa penerapan empiris yang ketat. Anda harus membuktikan sistem Anda bekerja melalui basis kode yang dapat diverifikasi secara publik dan suite evaluasi otomatis.
Python: Inisialisasi Pipeline Agen Lokal
Pertanyaan 1
Apa yang dimaksud dengan "Jeratan API" dalam pengembangan AI?
Biaya tinggi kredit cloud.
Keyakinan bahwa memanggil API cloud setara dengan rekayasa AI penuh.
Latensi yang terkait dengan permintaan server.
Risiko keamanan dari berbagi data dengan pihak ketiga.
Pertanyaan 2
Protokol mana yang secara khusus dirancang untuk komunikasi antar agen khusus?
HTTP/2
Bus komunikasi A2A (Agent-ke-Agent)
SMTP
REST
Studi Kasus: Intuisi Rekayasa
Baca skenario di bawah ini dan jawab pertanyaannya.
Anda ditugaskan untuk mengurangi halusinasi dalam sistem RAG hukum (Generasi Penguatan Pencarian).

Tujuan: Gunakan metrik empiris untuk membuktikan kinerja sistem, bukan hanya mengandalkan "perasaan" kualitatif.
Q
1. Bagaimana Anda menggunakan Mean Reciprocal Rank (MRR) untuk mengukur akurasi dokumen yang diambil?
Jawaban:
MRR mengevaluasi sistem dengan melihat peringkat dari pertama dokumen relevan yang diambil. Rumusnya adalah $MRR = \frac{1}{|Q|} \sum_{i=1}^{|Q|} \frac{1}{rank_i}$. Nilai MRR yang lebih tinggi menunjukkan bahwa dokumen hukum yang paling relevan muncul lebih dekat ke bagian atas hasil pencarian, mengurangi kemungkinan LLM mengalami halusinasi karena konteks yang tidak relevan.
Q
2. Bagaimana Precision@K melengkapi MRR dalam mengevaluasi sistem RAG ini?
Jawaban:
Meskipun MRR hanya peduli pada hasil relevan pertama, $Precision@K = \frac{\text{Dokumen relevan dalam Top K}}{K}$ mengukur proporsi dokumen relevan dalam hasil teratas $K$. Dalam konteks hukum, sebuah kueri mungkin membutuhkan sintesis beberapa yurisprudensi. Precision@K yang tinggi memastikan jendela konteks diisi fakta-fakta relevan yang padat, bukan kebisingan.